Curse of dimensionality

차원의 저주. 차원이 늘어날수록, 모델의 학습 성능이 떨어지게 된다는 이론이다.

차원이 늘어날수록, 그에 반해 존재 가능한 데이터의 수는 기하급수적으로 늘어난다.

이 때, 각 데이터 간의 평균 거리가 멀어지게 된다. 즉, 데이터의 density가 매우 커지게 되면서 가까운 이웃을 찾거나(Nearest Neighbor) 유의미한 패턴을 학습하기 어려워진다.